AdvFD: Boosting Visual Generation via Adversarial Fr'echet Distance Loss
AdvFD:通过对抗 Fréchet 距离损失提升视觉生成
🧭 生成模型后训练损失改进
Peking University · KlingAI Research
提出对抗 Fréchet 距离损失(AdvFD),用可学习对抗表示与特征白化缓解 Fréchet hacking,提升视觉生成后训练
📌 工作参考价值(4 点)
- 主要是学术贡献,业务可借鉴点有限。
- 指标 hacking 值得警惕:推荐/广告中仅优化 AUC、NDCG 等静态离线指标可能类似 Fréchet hacking,可尝试引入一个可学习评估器或对抗表征来暴露被固定指标忽略的分布差异。
- 特征白化(whitening)作为对抗训练稳定技巧,可借鉴到多目标/对抗式训练(如 GAN-style 生成式召回)中,防止一侧通过放大特征范数欺骗损失。
- 生成式推荐/创意生成中,后训练阶段加入分布级对抗损失可能提升生成结果与真实分布的全局对齐,但需要进一步验证。